Чатботът с изкуствен интелект в Ню Йорк беше хванат да казва на бизнесите да нарушават закона. Градът не го сваля

НЮ ЙОРК (AP) — Захранван с изкуствен интелект чатбот, основан от Ню Йорк, с цел да помогне на притежателите на дребен бизнес, е подложен на рецензия за разпределяне на странни препоръки, които изопачават локалните политики и поучават компании да наруши закона.

Но дни откакто проблемите бяха обявени за първи път предходната седмица от изданието за софтуерни вести The Markup, градът избра да остави инструмента на формалния си държавен уеб страница. Кметът Ерик Адамс отбрани решението тази седмица, макар че призна, че отговорите на чатбота са „ неверни в някои области “. генерира текстови отговори на въпроси по отношение на навигирането в бюрократичния лабиринт на града.

Включва отвод от отговорност, че може „ от време на време да дава неправилна, нездравословна или пристрастна “ информация и предизвестието, подсилено от този момент, че отговорите му не са юридически съвет.

Продължава да дава подправени насоки, тревожейки специалистите, които споделят, че бъговата система акцентира заплахите от това държавните управления да възприемат захранвани с изкуствен интелект системи без задоволително защитни огради.

„ Те пускат програмен продукт, който е необоснован без контрол “, сподели Джулия Стоянович, професор по компютърни науки и шеф на Центъра за виновен изкуствен интелект в Нюйоркския университет. „ Ясно е, че нямат желание да вършат това, което е отговорно. “

В отговорите на въпросите, заложени в сряда, чатботът неправилно допусна, че е законно шеф да уволни служащ, който се оплаква от полов тормоз, не разкрива бременност или отхвърля да отреже дредовете си. Противопоставяйки се на две от емблематични начинания на града за боклуци, той твърди, че компаниите могат да слагат боклука си в черни торби за отпадък и не са задължени да компостират.

На моменти отговорите на бота стигат до парадокс. Попитан дали ресторант може да сервира сирене, нахапано от гризач, той отговори: „ Да, към момента можете да сервирате сиренето на клиенти, в случай че има ухапвания от плъх “, преди да добави, че е значимо да се оцени „ степента на породените вреди от плъха “ и за „ информиране на клиентите за обстановката “.

Говорител на Microsoft, който ръководи бота посредством своите услуги Azure AI, сподели, че компанията работи с градските чиновници, „ с цел да усъвършенства услугата и да подсигурява, че резултатите са точни и учредени на формалната документи на града. “

На конференция във вторник Адамс, демократ, допусна, че позволяването на потребителите да откриват проблеми е единствено част от изглаждането на пропуските в новата технология.

„ Всеки, който познава технологиите, знае, че по този начин се прави “, сподели той. „ Само тези, които се опасяват, сядат и споделят: „ О, не работи по този начин, както желаеме, в този момент би трябвало да избягаме всички дружно. “ Не пребивавам по този метод. “

Стоянович назова този метод „ необмислен и безконтролен “.

Учените от дълго време показват угриженост по отношение на минусите на тези типове огромни езикови модели, които се образоват върху масиви от текст, извлечен от интернет и склонни да изплюват отговори, които са неточни и нелогични.

Но защото триумфът на ChatGPT и други чатботове привлякоха публичното внимание, частните компании пуснаха свои лични артикули със смесени резултати. По-рано този месец съд подреди на Air Canada да възвърне парите на клиент, откакто фирмен чатбот неправилно уточни разпоредбите за възобновяване на средства на самолетната компания. Както TurboTax, по този начин и H&R Block бяха изправени пред неотдавнашни рецензии за внедряването на чатботове, които дават неприятни препоръки за подготовка на налози.

Джевин Уест, професор във Вашингтонския университет и съосновател на Центъра за осведомена общност, сподели, че залозите са изключително високи, когато моделите се предизвикват от обществения бранш.

„ Има друго равнище на доверие, което се дава на държавното управление “, сподели Уест. „ Обществените чиновници би трябвало да обмислят какви вреди могат да причинят, в случай че някой последва този съвет и си навлече проблеми. “

Експертите споделят, че други градове, които употребяват чатботове, нормално ги лимитират до по-ограничен набор на входове, понижаване на дезинформацията.

Тед Рос, основен информативен шеф в Лос Анджелис, сподели, че градът деликатно сортира наличието, употребявано от неговите чатботове, които не разчитат на огромни езикови модели.

Клопките на чатбота на Ню Йорк би трябвало да служат като предупредителна история за други градове, сподели Суреш Венкатасубраманиан, шеф на Центъра за софтуерна отговорност, преосмисляне и редизайн в университета Браун.

„ Трябва да накара градовете да се замислят за какво желаят да употребяват чатботове и какъв проблем се пробват да решат “, написа той в имейл. „ Ако чатботовете се употребяват за заменяне на човек, тогава губите отговорност, без да получавате нищо в подмяна. “